Задвижваната от AI дезинформация е най-голямата краткосрочна заплаха в света, се казва в доклада от Давос
Световният икономически форум казва, че невярната и подвеждаща информация, наситена с авангарден изкуствен интелект, е най-голям непосредствен риск за глобалната икономика
От КЕЛВИН ЧАН AP бизнес писател, 10 януари 2024 г., 4:56 ч.ЛОНДОН -- Невярна и подвеждаща информация, наситена с авангардни изкуственият интелект, който заплашва да подкопае демокрацията и да поляризира обществото, е най-големият непосредствен риск за световната икономика, се казва в доклад на Световния икономически форум от сряда.
В последния си доклад за глобалните рискове организацията също така каза, че набор от рискове за околната среда представляват най-големите заплахи в дългосрочен план. Докладът беше публикуван преди годишната елитна среща на изпълнителни директори и световни лидери в швейцарския ски курорт Давос и се основава на проучване сред близо 1500 експерти, лидери в индустрията и политици.
Докладът изброява дезинформацията и дезинформацията като най-сериозния риск през следващите две години, подчертавайки колко бързият напредък в технологиите също създава нови проблеми или влошава съществуващите.
Авторите се притесняват, че бумът на генеративни AI чатботове като ChatGPT означава, че създаването на сложно синтетично съдържание, което може да се използва за манипулиране на групи от хора, няма да бъде ограничено по-дълго за тези със специализирани умения.
ИИ ще бъде гореща тема следващата седмица на срещите в Давос, на които се очаква да присъстват шефове на технологични компании, включително главния изпълнителен директор на OpenAI Сам Алтман, главен изпълнителен директор на Microsoft Сатя Надела и играчи в AI индустрията като главния учен на Meta, Ян ЛеКун.
Задвижваната от AI дезинформация и дезинформация се очертава като риск точно когато милиарди хора в множество държави, включително големи икономики като Съединените щати, Великобритания, Индонезия, Индия, Мексико и Пакистан са готови да се отправят към урните тази и следващата година, се казва в доклада.
„Можете да използвате AI, за да правите дълбоки фалшификации и наистина да въздействате на големи групи, което наистина води до дезинформация“, каза Каролина Клинт, лидер по управление на риска в Marsh, чийто компанията майка Marsh McLennan е съавтор на доклада с Zurich Insurance Group.
„Обществата могат да станат допълнително поляризирани“, тъй като на хората им е по-трудно да проверяват фактите, каза тя. Фалшивата информация също може да се използва за подхранване на въпроси относно легитимността на избраните правителства, „което означава, че демократичните процеси могат да бъдат подкопани и също така ще доведе до още по-голяма поляризация на обществото“, каза Клинт. на други рискове, каза тя. Може да даде възможност на „злонамерените участници“, като улесни извършването на кибератаки, като например чрез автоматизиране на опити за фишинг или създаване на усъвършенстван зловреден софтуер.
С изкуствения интелект „не е нужно да си най-умният инструмент в бараката, за да бъдеш злонамерен актьор“, каза Клинт.
Той дори може да отрови данни която се изтрива от интернет, за да обучава други AI системи, което е „невероятно трудно за обръщане“ и може да доведе до по-нататъшно вграждане на отклонения в моделите на AI, каза тя.
Другото голямо глобално безпокойство за респондентите в проучването на риска беше свързано с изменението на климата.
След дезинформацията и дезинформацията, екстремното време е вторият най-належащ краткосрочен риск.
В дългосрочен план — дефиниран като 10 години — екстремното време беше описано като заплаха номер 1, последвано от четири други рискове, свързани с околната среда: критична промяна на Земни системи; загуба на биоразнообразие и колапс на екосистеми; и недостиг на природни ресурси.
„Можем да бъдем изтласкани от тази повратна точка на необратимото изменение на климата“ през следващото десетилетие, тъй като системите на Земята претърпяват дългосрочни промени, каза Клинт.
